这项工作的目的是通过根据求职者的简历提供无偏见的工作建议来帮助减轻已经存在的性别工资差距。我们采用生成的对抗网络来从12m职位空缺文本和900k简历的Word2VEC表示中删除性别偏见。我们的结果表明，由招聘文本创建的表示形式包含算法偏见，并且这种偏见会对推荐系统产生实际后果。在没有控制偏见的情况下，建议妇女在我们的数据中薪水明显降低。有了对手公平的代表，这种工资差距消失了，这意味着我们的辩护工作建议减少了工资歧视。我们得出的结论是，单词表示形式的对抗性偏见可以增加系统的真实世界公平性，因此可能是创建公平感知推荐系统的解决方案的一部分。
translated by 谷歌翻译
基于用户交互数据的优化推荐系统主要被视为处理选择偏差的问题，其中大多数现有工作都假设来自不同用户的交互是独立的。但是，已经表明，实际上用户反馈通常受到其他用户的早期交互的影响，例如通过平均评分，每项项目的视图或销售量等。这种现象被称为潮流效应。与以前的文献相反，我们认为潮流效应不应被视为统计偏见的问题。实际上，我们证明了这种效果使单个相互作用及其样本平均无偏见。然而，我们表明它可以使估计量不一致，从而引入了一系列与相关性估计的融合的不同问题。我们的理论分析研究了潮流效应提出一致性问题的条件，并探讨了减轻这些问题的几种方法。这项工作旨在表明，潮流效应带来了一个不足的开放问题，从根本上讲，这与建议的选择偏见从根本上截然不同。
translated by 谷歌翻译
由于算法决策对人类的影响增加，模型解释性已成为机器学习（ML）的重要问题。反事实解释可以帮助用户不仅可以理解为什么ML模型做出某些决定，还可以改变这些决定。我们框架以梯度为基础的优化任务查找反事实解释的问题，并扩展了只能应用于可微分模型的先前工作。为了适应非微弱的模型，例如树集合，我们在优化框架中使用概率模型近似。我们介绍了一种近似技术，可以有效地查找原始模型的预测的反事实解释，并表明我们的反事实示例明显更接近原始实例，而不是由专门为树集合设计的其他方法产生的实例。
translated by 谷歌翻译